Google Photos混乱了:将黑人标记为大猩猩(图)

大飞熊

http://www.backchina.com/news/2015/07/02/371144.html

北京时间7月2日消息，据《华尔街日报》网络版消息，谷歌在人工智能方面一直处于领导地位，但本周其图片应用Google Photos的一处重大失误显示出，谷歌的人工智能技术还有很长的路要走。
　　据一位名叫杰克·艾尔萨尼（Jacky Alcine）的程序员在Twitter上透露，Google Photos将两位黑人标记成了“大猩猩”。
　　“Google Photos你完全搞错啦，我的朋友不是大猩猩”，他在Twitter上写道。
　　谷歌随后向艾尔萨尼表示了抱歉，并表示正调整算法以修复该漏洞。
　　“我们很震惊，对于此事我们表示由衷的道歉”，谷歌一位发言人表示。“很明显，对于图片自动标记功能我们还有很多工作要做，未来我们会努力阻止此类事件再次发生。”
　　谷歌数周前刚刚推出Google Photos。当用户在该应用搜索图片时，谷歌会利用机器学习技术将照片分类，从而实现自动为图片添加标签等功能。当谷歌移除大猩猩类别后，该类别将不会再出现。
　　“我们虽然完成了很多，但还有很多工作仍待完成，不管怎样我们都会非常努力的”，谷歌社交主管约纳坦·尊阁（Yonatan Zunge）在Twitter上回复艾尔萨尼时说道。谷歌正努力提高肤色识别功能，将会更加注意对照片中人物的标签，他补充说。
　　这段小插曲显示出了人工智能和机器学习的不足之处，尤其是这些技术被运用于消费者身上时。未来谷歌仍有可能发布存在潜在缺陷的软件，之后再更新修复。虽然这种模式可以更快地向消费者推出产品，但如果漏洞比较严重的话，可能会使招致用户不满。
　　谷歌今年年初推出了YouTube儿童版应用，意图通过自动过滤、用户反馈可人工排查的方式将成人内容排除在外。但该系统疏漏了一些不适当的内容在该儿童版应用上，引起了用户的抱怨。谷歌发言人当时声称，要实现“100%的精确度是几乎是不可能的”。
　　当推出Google Photos时，谷歌承认该应用并不完美。但“大猩猩”标签事件让谷歌算法系统的缺点暴露的更加明显。
　　“我们需要从根本上改变机器学习系统，为其加入更多语境以使其能够理解文化敏感性”，人工智能初创公司Sentient Technologies的首席科学家巴巴克·浩德杰特（Babak Hodjat）表示。
　　他表示，机器学习系统不明白黑猩猩和大猩猩的区别并没多大问题，但如果将人标记为大猩猩则会显得非常无礼。
　　谷歌的系统可能并没有“浏览”足够的大猩猩图片以使其明白人和大猩猩的区别——更不会明白这种错误对人类意味着什么，他说。
　　“人类对于文化方面的差异很敏感”，浩德杰特说。“机器做不到这一点，它们没法理解这种类型的语境”

上班ing

这个，真不能全怪谷歌啊

qianqian2007

默默

商务车

千万别再学习了，再学习下去，强人工智能就出现了，然后人类就没有然后了。。。

拎壶冲

商务车 发表于 2015-7-2 22:25 [url=http:/oursteps.co/[url=http:/oursteps.co/[url=http:/oursteps.co/forum.php?mod=redirect&goto=findpost&pid=22787992&ptid=1080298" target="_blank">
千万别再学习了，再学习下去，强人工智能就出现了，然后人类就没有然后了。。。 ...

现在，科技离真正的人工智能差十万八千里。

下个世纪说不定能弄出来。

hgaox

市场上面的哪一款软件没有潜在的缺陷？

dtmr17

拎壶冲 发表于 2015-7-2 23:17 [url=http:/oursteps.co/[url=http:/oursteps.co/[url=http:/oursteps.co/forum.php?mod=redirect&goto=findpost&pid=22788583&ptid=1080298" target="_blank">
现在，科技离真正的人工智能差十万八千里。

下个世纪说不定能弄出来。 ...

行业能多认为在2075左右。

AI一旦达到某个点，人类就歇菜了。AI的巨轮，人类无法阻挡。

dtmr17

前几年国内的某强不是把加菲猫当色情图片给拦截了吧。

相对来说，狗狗的AI有进步了。

城堡山堡住

我不觉得有什么问题啊，难道黑人不是黑猩猩吗，艾滋病就是黑人开始传播的，黑猩猩是携带艾滋病物种

milysun

那照片让我这个真正的智能来判断，也会在大猩猩和黑猩猩之间犹豫一会儿

jerryclark

下次发张凤姐的照片看看能识别出啥

Pizy

Mushroomm

milysun 发表于 2015-7-3 09:54 [url=http:/oursteps.co/[url=http:/oursteps.co/[url=http:/oursteps.co/forum.php?mod=redirect&goto=findpost&pid=22790444&ptid=1080298" target="_blank">
那照片让我这个真正的智能来判断，也会在大猩猩和黑猩猩之间犹豫一会儿

犹豫之后也归类为大猩猩？

milysun

Mushroomm 发表于 2017-8-15 09:23
犹豫之后也归类为大猩猩？

不，经过了两年的思考和经验总结，智能升级后更倾向于黑猩猩。

---

没事P猩猩图片做什么

slau1

試試看Winnie the Pooh

Pipiv

老帖

ysihaoy

别说Google AI了，就连我用肉眼看，也会把他归类为大猩猩的

反而觉得Google photo很智能